Разработчиците на софтуер искат AI да дава медицински съвети, но изобилстват въпроси относно точността

Софтуерните дизайнери тестват профилирани чатботове, работещи с AI, които могат да дават медицински препоръки и диагностицират положения — само че изобилстват въпроси по отношение на точността. 

Тази пролет Гугъл показа функционалност „ Общ обзор на AI “, където отговорите от чатбота на компанията започнаха да се демонстрират над типичните резултати от търсенето, в това число за запитвания, свързани със здравето. Въпреки че на доктрина може да звучи като добра концепция, имаше проблеми към здравните препоръки, предлагани от софтуера. 

През първата седмица, когато ботът беше онлайн, един консуматор сподели, че AI на Гугъл дава неправилна, евентуално смъртоносна информация за това какво да вършим, в случай че бъдем ухапани от гърмяща змия. Друго търсене докара до рекомендация на Гугъл на хората да ядат „ най-малко един дребен камък дневно “ за витамини и минерали – съветът беше взет от сатирична публикация.

Търсенията по отношение на изгодите за здравето от съмнителни уелнес трендове като детоксикация или пиянство на сурово мляко също включват развенчани изказвания. 

Въпреки странностите и откровените неточности, доста водачи в опазването на здравето споделят, че остават оптимисти по отношение на чатботовете с изкуствен интелект и по какъв начин те могат да трансформират промишлеността. 

„ Хората ще имат достъп до информацията, от която се нуждаят “, сподели доктор Нигам Шах, основен академик по данни в Stanford Healthcare. „ В кратковременен проект съм малко черноглед, мисля, че малко изпреварваме себе си. Но в дълготраен проект считам, че тези технологии ще ни донесат доста положително. “ 

Други бранители на чатботовете бързо означават, че лекарите не постоянно го схващат вярно. Прогнозите варират, само че изследване на Министерството на здравеопазването и човешките услуги от 2022 година откри, че до 2% от пациентите, които отиват в незабавно поделение всяка година, могат да претърпят щета след неправилна диагноза от снабдител на здравни услуги. 

Шах съпостави потреблението на чатботове с ранните дни на самия Гугъл. 

„ Когато Гугъл Търсене се появи, хората бяха в суматоха, че хората ще се самодиагностицират и всичко ще се разпадне. Това не се случи “, сподели Шах. „ Същото нещо. Ще минем през тази фаза (където) новите, които не са изцяло завършени, ще вършат неточности и няколко от тях ще бъдат неприятни, само че като цяло, да имаш информация, когато няма друга опция положително нещо. "  

Световната здравна организация е една от фирмите, които навлизат във водите на ИИ. Чатботът на организацията, Сара, извлича информация от уеб страницата на СЗО и нейните доверени сътрудници, което прави отговорите по-малко податливи на в действителност неточности. На въпроса по какъв начин да ограничите риска от инфаркт, Сара даде информация за ръководството на напрежението, положителния сън и фокусирането върху здравословния метод на живот. 

Продължаващият прогрес в дизайна и надзора може да продължи да усъвършенства такива ботове. 

Но в случай че през днешния ден се обръщате към чатбот с изкуствен интелект за здравни препоръки, обърнете внимание на предизвестието, което идва с версията на Гугъл: „ Качеството на информацията може да варира “.